ThinkFlow：面向终身对话智能体的自进化概率潜在记忆框架
🧭 Agent 长程记忆 · 概率潜在技能 ★ 深度解读
Pengcheng Laboratory · Harbin Institute of Technology, Shenzhen · China Unicom Greater Bay Area Innovation Institute
将对话流压缩为概率潜在记忆技能，用下一用户话语预测实现无标签终身自进化
📌 工作参考价值（4 点）
- 把用户长期行为/画像从显式文本摘要改为 K 个可学习潜在槽（probabilistic latent skills），用 cross-attention 压缩对话/行为流，再作为 soft prompt 前置给生成式推荐或导购 Agent；能显著降低 prompt 长度并绕过摘要的信息瓶颈。
- 在线更新记忆时参考 GLC：用信息增益门控 + GRU 做增量更新，只写入高新颖度信息，过滤寒暄/重复点击等噪声；推荐系统中可对实时行为流做类似门控记忆，防止用户画像被低频噪声污染。
- 测试时无标签进化：把下一次点击/下一个 query/下一句用户话术作为自监督目标，先做教师蒸馏冷启动，再用预测损失持续调整记忆，部署后无需人工打标即可个性化；适合电商客服、消息推送文案生成等场景。
- CAHA 用当前 query 生成低秩适配矩阵，把历史记忆对齐到当前上下文：可用 hypernetwork 生成 per-request LoRA 增量，平衡个性化与算力。
超越检索：面向流式视频理解的渐进潜在记忆演化
🧭 流式视频 MLLM 的渐进潜在记忆
Nanjing University of Science and Technology · Ant Group · National University of Singapore · The Chinese University of Hong Kong
提出 LatentStream，将流式视频记忆从 store-and-retrieve 转为 retrieve-and-internalize，通过层级记忆与渐进置信度优化取得 SOTA
📌 工作参考价值（4 点）
- 借鉴“查询无关层级压缩 + 查询相关检索内化”两段式记忆架构：电商用户行为序列建模可先用无查询的自适应聚类（如 Jenks natural breaks）压缩长短期兴趣，收到请求后再用 query 检索相关证据并内部化为固定长度 latent 表示，平衡内存与推理精度。
- 固定内存预算下的短/中/长期分层组织可迁移到 Agent 或在线推荐系统的会话记忆管理，避免历史状态无限增长，适合延迟敏感的长序列处理。
- Progressive confidence-guided optimization 用分组预测熵构建层级奖励，可应用于多步推理或交互式推荐，对中间状态逐层优化置信度，提升最终输出稳定性。
- retrieve-and-internalize 方式比将检索证据直接拼接到上下文更节省 KV cache，适合长视频/直播理解、多轮对话 Agent 等需持续累积历史的在线场景。
FocusMem：因子化 GUI Agent 潜在记忆的内容、读出与信任
🧭 Agent记忆因子化与选择性读出
School of Computer Science, Peking University · Key Lab of High Confidence Software Technologies, Peking University · Institute of Information Engineering, Chinese Academy of Sciences · Department of Computer Science and Technology, Tsinghua University
在潜在记忆中因子化内容保留、状态条件读出和信任门控，解决 GUI Agent 记忆压缩损失与无关干扰问题
📌 工作参考价值（4 点）
- 构建对话式推荐 Agent 或任务助手时，可将情景记忆（用户长期偏好）与工作记忆（当前会话状态）分开存储并利用角色感知读出，提升多轮交互一致性。
- 状态条件读出机制可迁移至用户序列建模，根据当前推荐场景动态聚焦历史行为，增强推荐上下文的个性化与相关性。
- 信任门作为轻量过滤器，可集成到 RAG 管道中，抑制检索到的无关商品描述或历史交互，减少噪声，提高推理准确性。
- 记忆模块独立训练、策略模型冻结的架构，是一种低风险、易迭代的工程方案，适合业务中快速实验与部署。
EvoEmbedding：可进化的表示模型，解决长上下文检索与Agent记忆动态匹配
🧭 可进化嵌入 · 长上下文检索与Agent记忆 ★ 深度解读
Nanjing University
通过FIFO潜在记忆队列实现可进化的上下文感知嵌入，在长上下文检索和Agent记忆任务上大幅超越静态大模型
📌 工作参考价值（4 点）
- 用户行为序列的动态嵌入：电商场景中，同一用户在不同时段对同一query的意图不同（如“耳机”先浏览后比价），EvoEmbedding的可进化表示可压缩历史上下文，使召回/排序阶段感知时序变化，避免检索过时信息。可直接用其FIFO潜在记忆队列增量更新用户状态，嵌入维度仅1024，开销低。
- 多LoRA解耦训练与无损切换：将记忆更新和表示生成拆分为两个LoRA适配器，基座LLM参数冻结，既避免了灾难性遗忘，又可在推理时按需激活。业务中可借鉴为同一个基座模型同时具备记忆压缩和检索嵌入能力，省去额外部署专用嵌入模型。
- 长度加权对比损失：对于电商长序列（如用户全生命周期行为），正负样本数量差异极大且长度悬殊。论文的log(N+1)自适应校准因子可稳定训练，避免模型偏向短序列，值得直接移植到用户长序列表示学习。
- Segment-Batching加速技巧：将多个连续片段拼接后并行编码，训练提速3.8倍且性能小幅提升。在处理用户流水数据时，可按时间窗口并行化，平衡效率与效果。
每个多模态证据一个Token：面向资源受限问答的潜在记忆
🧭 潜在记忆表示 · 多模态RAG效率优化 ★ 深度解读
National University of Singapore
提出 Latent Memory，将多模态证据压缩为单潜在Token进行检索与生成，以3-10倍更少生成Token达到竞争性能。
📌 工作参考价值（4 点）
- 多模态商品/内容压缩：在电商搜索或推荐中，将商品图文、详情页等证据压缩为单个潜在Token，存储和生成成本大幅降低，同时通过联合训练保留检索和生成所需的信息。
- Agent记忆管理：借鉴 Latent Memory 将Agent交互历史、工具返回等多模态证据压缩为潜在Token库，支持高速相似性检索和直接注入生成，适合资源敏感的端侧Agent。
- 三目标训练范式：重建（保持内容）+ 对比（对齐查询与证据）+ 蒸馏（适配冻结生成器）的联合优化，可迁移至其他需要连续表示与检索的场景，如对话状态压缩、用户行为建模。
- 跨域泛化：在 HotpotQA 训练的压缩器直接用于多领域QA，表明压缩出的潜在Token具有良好迁移性，可借鉴以降低电商跨品类/跨场景的重复训练成本。
通过新颖信号联合学习智能体记忆与探索
🧭 智能体记忆与探索的联合学习 ★ 深度解读
Tsinghua University · Sun Yat-sen University · Baidu Inc. · Tongji University · Peking University
利用代码覆盖率等持久新颖信号，联合训练智能体潜在记忆与探索策略，显著提升探索效率并减少 token 消耗
📌 工作参考价值（4 点）
- 无监督的记忆训练信号：在 GUI 或可嵌入环境中，利用代码覆盖率、新状态发现等持久新奇信号作为内在奖励，为记忆模块提供无需人工标注的训练目标。这可以迁移到电商 App 自动化测试、Agent 探索冷启动等场景，用环境固有指标替代昂贵的人工反馈。
- 轻量级历史压缩：使用一个冻结的视觉语言模型将每一步（观测，动作）压缩为一个向量 token，大幅减少长对话的 token 开销。在电商客服 Agent 或推荐对话系统中，可以类似地压缩多轮交互历史，避免上下文窗口膨胀，同时保持关键信息。
- 自然课程式训练：随着会话进行，奖励自然变得稀疏，迫使策略学习更深层的探索行为。在构建 Agent 的训练环境时，可以设计类似“先易后难”的奖励衰减机制，无需手动设计课程。
- 联合训练记忆与策略：将记忆压缩和对齐与策略梯度联合优化，避免解耦带来的次优解。对于需要记忆的推荐 Agent 或多智能体协作场景，可考虑将记忆模块的学习与任务目标直接对齐，而非单独训练或使用静态规则。